Vào thời Chúa Nguyễn, chỉ có địa danh huyện Tuy Hòa. Đến năm 1899, huyện Tuy Hòa được nâng lên thành phủ Tuy Hòa gồm 5 tổng, và chỉ có tổng Hoà Bình nằm ở phía Bắc sông Đà Rằng (trung tâm thành phố hiện nay)

Cho đến ngày Cách mạng tháng Tám thành công, phủ Tuy Hòa có 7 tổng, trong đó, hai tổng Hòa Tường và Hòa Bình nằm phía bắc sông Đà Rằng.

Năm 1946, giải thể cấp tổng, hai ba làng nhập thành một xã. Năm 1947, nhập xã lần thứ hai, các xã phía bắc sông Đà Rằng (thị xã Tuy Hòa) có tên là: Hòa Tiến, Hòa Thuận, Quang Khánh, Nam Tường, Trần Hào, Ái Quốc, Thắng Lợi, Vĩnh Hiệp, Cẩm Tú, Tân Tiến, Quốc Tiến và nội thị Tuy Hòa.

Sau năm 1975, hai tỉnh Phú Yên và Khánh Hòa hợp nhất thành tỉnh Phú Khánh, thị xã Tuy Hòa thuộc tỉnh Phú Khánh, gồm 6 phường: 1, 2, 3, 4, 5, 6 và 2 xã: Bình Kiến, Bình Ngọc.

Ngày 10 tháng 3 năm 1977, sáp nhập thị xã Tuy Hòa vào huyện Tuy Hòa và chuyển 6 phường thuộc thị xã thành thị trấn Tuy Hòa; huyện Tuy Hòa có thị trấn Tuy Hòa và 17 xã: Bình Kiến, Bình Ngọc, Hòa Trị, Hòa An, Hòa Thắng, Hòa Quang, Hòa Định, Hòa Thành, Sơn Thành, Hòa Bình, Hòa Tân, Hòa Vinh, Hòa Đồng, Phú Lâm, Hòa Hiệp, Hòa Phong, Hòa Xuân, Hòa Thịnh, Hòa Mỹ.[1]

Theo Quyết định số 241/CP ngày 22 tháng 9 năm 1978 của Hội đồng Chính phủ, chia huyện Tuy Hòa thành hai đơn vị hành chính lấy tên là huyện Tuy Hòa và thị xã Tuy Hòa[2]. Thị xã Tuy Hòa có 6 phường: 1, 2, 3, 4, 5, 6 và 2 xã: Bình Kiến và Bình Ngọc.

Ngày 5 tháng 9 năm 1981, chuyển 6 xã: Hòa An, Hòa Thắng, Hòa Định, Hòa Trị, Hòa Quang, Hòa Hội thuộc huyện Tuy Hòa về thị xã Tuy Hòa quản lý.[3]

Ngày 30 tháng 9 năm 1981, chia xã Bình Kiến thành 2 xã: Bình Kiến và Hòa Kiến; chia xã Hòa Định thành 2 xã: Hòa Định Đông và Hòa Định Tây.[4]

Cuối năm 1988, thị xã Tuy Hòa có 6 phường 1, 2, 3, 4, 5, 6 và 10 xã: Bình Kiến, Bình Ngọc, Hòa An, Hòa Định Đông, Hòa Định Tây, Hòa Hội, Hòa Kiến, Hòa Quang, Hòa Thắng, Hòa Trị.

Ngày 30 tháng 6 năm 1989, tái lập tỉnh Phú Yên từ tỉnh Phú Khánh, thị xã Tuy Hòa trở lại là tỉnh lị tỉnh Phú Yên.[5]

Ngày 28 tháng 4 năm 1999, chia phường 2 thành 2 phường: 2 và 8; chia phường 5 thành 2 phường: 5 và 7.[6]

Ngày 31 tháng 1 năm 2002, tách 7 xã: Hòa An, Hòa Thắng, Hòa Định Đông, Hòa Định Tây, Hòa Trị, Hòa Quang, Hòa Hội để thành lập huyện Phú Hòa.[7]

Ngày 20 tháng 8 năm 2003, chia xã Bình Kiến thành xã Bình Kiến và phường 9.[8]

Ngày 5 tháng 1 năm 2005, chuyển thị xã Tuy Hòa thành thành phố Tuy Hòa. Đồng thời, chuyển xã An Phú thuộc huyện Tuy An và thị trấn Phú Lâm thuộc huyện Tuy Hòa (nay là 2 huyện Đông Hòa và Tây Hòa) về thành phố Tuy Hòa quản lý và chuyển thị trấn Phú Lâm thành phường Phú Lâm.[9]

Ngày 3 tháng 12 năm 2007, chia phường Phú Lâm thành 3 phường: Phú Lâm, Phú Thạnh, Phú Đông.[10]

Ngày 11 tháng 3 năm 2013, Thủ tướng Chính phủ ban hành Quyết định 437/QĐ-TTg công nhận thành phố Tuy Hòa là đô thị loại 2 trực thuộc tỉnh Phú Yên.[11]